Ân xá Quốc tế được ông Peter Benenson, một luật sư người Anh, thành lập năm 1961. Benenson đọc báo và sửng sốt rồi tức giận trước câu chuyện hai sinh viên người Bồ Đào Nha bị xử tù 7 năm vì đã nâng cốc mừng tự do. Benenson liền viết cho David Astor, biên tập viên tờ The Observer, ông này cho đăng bài báo của Benenson nhan đề Những người tù bị bỏ quên[3] ngày 28 tháng 5, kêu gọi độc giả viết thư ủng hộ hai sinh viên. Sự phản hồi thật là dồn dập đến nỗi trong có một năm mà các nhóm viết thư đã được thành lập tại hơn một tá quốc gia, họ viết để bảo vệ những nạn nhân của bất công ở bất cứ đâu. Đến giữa năm 1962, Ân xá Quốc tế đã có các nhóm hoạt động hoặc thành lập ở Đức, Bỉ, Thuỵ Sĩ, Hà Lan, Na Uy, Thuỵ Điển, Ireland, Canada, Tích Lan (nay là Sri Lanka), Hy Lạp, Úc, Hoa Kỳ, New Zealand, Ghana, Israel, México, Argentina, Jamaica, Malaysia, Congo (Brazzaville) (nay là Cộng hoà Congo), Ethiopia, Nigeria, Miến Điện (nay là Myanma) và Ấn Độ. Cuối năm ấy, Diana Redhouse, một thành viên của một trong các nhóm trên, đã thiết kế biểu tượng của tổ chức là Ngọn nến trong vòng dây kẽm gai.

Trong những năm đầu, Ân xá Quốc tế chỉ tập trung vào các điều 18 và 19 của bản Tuyên ngôn Nhân quyền — 2 điều liên quan đến tù chính trị. Tuy nhiên, với thời gian, tổ chức đã mở rộng sứ mạng để hoạt động vì những nạn nhân của các hình thức vi phạm nhân quyền khác, không chỉ vì những tù nhân lương tâm. Riêng trong năm 2000, Ân xá Quốc tế đã hoạt động nhân danh 3685 cá nhân, và đã cải thiện được điều kiện của tù nhân trong hơn một phần 3 số trường hợp. Ngày nay có hơn 7500 nhóm Ân xá Quốc tế với khoảng 1 triệu thành viên hoạt động ở 162 quốc gia và vùng lãnh thổ. Từ khi thành lập, Ân xá Quốc tế đã bảo vệ hơn 44600 tù nhân ở hàng trăm quốc gia.

Năm 1977, Ân xá Quốc tế được trao tặng Giải Nobel Hòa bình vì những hoạt động bảo vệ nhân quyền trên khắp thế giới.